Killing sinh ngày 10 tháng 5 năm 1847 ở Burbach gần Siegen, tỉnh Westphalia. Cha của ông ban đầu là thư ký tòa án và giữ một số chức vụ thị trưởng. Vì công việc của người cha, gia đình của ông phải chuyển đi nhiều lần. Sau đó, ông vào trường ngữ pháp ở Brilon để nghiên cứu về ngôn ngữ cổ điển. Trong suốt thời gian đó, Killing đã rất say mê hình học từ giáo viên của mình. Ông bắt đầu học toán vào học kỳ mùa đông năm 1865/66 tại Münster nơi ông tiếp tục con đường học vấn của mình chủ yếu bằng cách nghiên cứu các tác phẩm của Plücker, Hesse và Disquisitiones Arithmeticae của chính Carl Friedrich Gauss. Ngoài ra, ông còn tiếp tục làm việc với Ernst Eduard Kummer, Hermann von Helmholtz và Karl Weierstrass trong học kỳ mùa đông năm 1867/1866 ở Berlin. Sau đó, ông trở thành thành viên của hiệp hội sinh viên Công giáo K.D.St.V. Sauerlandia Münster. Vào tháng 3 năm 1872, Killing nhận bằng tiến sĩ từ Weierstrass với luận án về việc áp dụng ước số cơ bản của ma trận vào lý thuyết diện tích.

Từ năm 1873 đến năm 1878, ông giảng dạy tại các trường học ở Berlin (Trường trung học Friedrichwerder và Trường Công giáo St. Hedwig). Từ năm 1878 trở đi, ông dạy học tại trường trung học quê hương của ông ở Brilon và vào năm 1882, ông là giáo sư toán học tại Lyceum Hosianum ở Braunsberg và trở thành hiệu trưởng. Khi còn là giáo viên trường trung học, ông đã xuất bản vài cuốn sách mặc dù phải tập trung với toán học và khối lượng công việc giảng dạy nặng nề. Ngoài ra, ông còn dạy các môn học khác như tiếng Latinh và tiếng Hy Lạp. Từ năm 1880 trở đi, ông tập trung về hình học phi Euclide trong mọi chiều. Cuốn sách của ông, Các dạng không gian phi Euclid trong xử lý phân tích, được xuất bản năm 1885. Cùng năm 1885, ông được bầu làm thành viên của viện hàn lâm khoa học Leopoldina[1].